Matthäus menerima panggilan pertama ke pasukan kebangsaan Jerman Barat pada tahun 1980 dan sebahagian daripada pasukan Jerman Barat yang memenangi UEFA Euro 1980 di Itali. Beliau seterusnya termasuk dalam skuad Piala Dunia FIFA 1982 di Sepanyol dan beraksi dua perlawanan ketika menentang Chile dan Austria dalam saingan peringkat kumpulan.

Pada kejohanan Piala Dunia 1986 yang berlangsung di Mexico, beliau menjaringkan gol kemenangan Jerman pada aksi pusingan 16 menentang Maghribi. Dalam perlawanan akhir menentang Argentina, jurulatih Franz Beckenbauer meletak tugas Matthäus bagi menghalang pergerakan berbahaya Diego Maradona. Walaupun Matthäus berjaya menghalang Maradona tidak menjaringkan sebarang gol, pasukan Jerman Barat tewas 3-2.

Dalam kejohanan UEFA Euro 1988 yang berlangsung di negara tanah airnya, Matthäus mengetuai pasukan Jerman Barat sepanjang kejohanan itu. Beliau menyudahkan tendangan penalti pada perlawanan separuh akhir menentang Belanda bagi memberikan laluan kepada pasukannya untuk mendahului perlawanan. Namun, hasil jaringan penalti Ronald Koeman dan jaringan kemenangan pasukan lawan oleh Marco van Basten pada lewat permainan meranapkan impian Jerman Barat untuk mara ke final.

Seterusnya kejohanan Piala Dunia 1990 yang diadakan di Itali dilihat kejohanan utama dalam karier antarabangsa Matthäus. Kebanyakan perlawanan Jerman Barat sepanjang kejohanan berlangsung di San Siro dan disebabkan Matthäus merupakan pemain Internazionale, stadium tersebut sentiasa menyuntik semangat rakan sepasukan lain. Matthäus mengetuai pasukannya pada perlawanan pembukaan menentang Yugoslavia dan beliau menjaringkan dua gol yang berkesudahan 4-1 memihak kepada Jerman Barat. Seterusnya, pasukan Jerman Barat mara ke pusingan akhir buat tiga kejohanan berturut-turut dan berjumpa lawan yang sama seperti edisi lalu, Argentina. Akhirnya, Jerman Barat menang dan berterima kasih atas sumbangan penalti Andreas Brehme pada minit ke-85. Sebagai kapten, Matthäus menjulang trofi Piala Dunia tidak lama sebelum penyatuan Jerman pada tahun 1990. Matthäus seterusnya berkata beraksi di Piala Dunia di Itali sama seperti bermain di tanah airnya sendiri.

Beliau mengalami kecederaan sebelum bermulanya kejohanan UEFA Euro 1992 di Sweden sekali gus beliau tidak layak dalam skuad Jerman. Jerman tewas mengejut 2-0 pada perlawanan akhir Euro menentang Denmark. Pada kejohanan Piala Dunia 1994 di Amerika Syarikat, beliau mengetuai pasukan Jerman tetapi beliau bermain sebagai sweeper. Beliau menyempurnakan tendangan penalti pada aksi suku akhir menentang Bulgaria untuk memberikan peluang kepada Jerman mendahului permainan namun dua jaringan Bulgaria dalam masa tiga minit menghantar pulang juara dunia itu. Piala Dunia 1994 dipertimbang menjadi kejohanan terakhirnya walaupun beliau tidak membuat kenyataan rasmi persaraan antarabangsa. Selepas itu, Matthäus tidak dipanggil oleh pasukan kebangsaan menyebabkan jawatan kapten diserahkan kepada Jürgen Klinsmann oleh jurulatih Berti Vogts. Pada masa ketiadaannya, pasukan Jerman menjuarai Euro 1996 di England.

Beliau dipanggil ke skuad Piala Dunia 1998 sebagai pengganti pemain sweeper yang tercedera, Matthias Sammer. Beliau seterusnya beraksi sebaai pemain gantian pada perlawanan menentang Yugoslavia yang berkesudahan terikat seri 2-2. Beliau menjadi pemain kedua yang tampil dalam lima edisi Piala Dunia, seiring rekod penjaga gol Mexico, Antonio Carbajal. Matthäus seterusnya beraksi kesemua perlawanan Jerman pada kejohanan itu sehingga tewas 0-3 di tangan Croatia di peringkat suku akhir.

Beliau bermain ketiga-tiga perlawanan Jerman di UEFA Euro 2000. Perlawanan ke-150nya ketika menentang Portugal pada kejohanan itu sebelum Jerman tersingkir pada pusingan kumpulan.